Hunderte von Persönlichkeiten des öffentlichen Lebens, darunter Apple-Mitbegründer Steve Wozniak und Richard Branson von Virgin, fordern ein Verbot der KI-„Superintelligenz“

Eine Gruppe prominenter Persönlichkeiten, darunter Experten für künstliche Intelligenz und Technologie, hat ein Ende der Bemühungen zur Schaffung einer „Superintelligenz“ gefordert – einer Form der KI, die den Menschen bei praktisch allen kognitiven Aufgaben übertreffen würde.

Über 850 Menschen, darunter Technologieführer wie der Gründer der Virgin Group Richard Branson und Apple Mitbegründer Steve Wozniak unterzeichnete eine am Mittwoch veröffentlichte Erklärung , in der er zu einer Pause bei der Entwicklung von Superintelligenz aufrief.

An der Spitze der Unterzeichnerliste standen prominente KI-Pioniere, darunter die Informatiker Yoshua Bengio und Geoff Hinton , die als „Pate“ der modernen KI gelten. Auch führende KI-Forscher wie Stuart Russell von der UC Berkeley unterzeichneten die Erklärung.

Superintelligenz ist in der KI-Welt zu einem Schlagwort geworden, da Unternehmen von Elon Musks xAI bis zu Sam Altmans OpenAI um die Veröffentlichung fortschrittlicherer Large Language Models konkurrieren. Meta ist sogar so weit gegangen, seine LLM-Abteilung „Meta Superintelligence Labs“ zu nennen.

Doch die Unterzeichner der jüngsten Erklärung warnen, dass die Aussicht auf Superintelligenz „Bedenken hervorruft, die von der wirtschaftlichen Überalterung und Entmachtung der Menschheit über den Verlust von Freiheit, bürgerlichen Freiheiten, Würde und Kontrolle bis hin zu Risiken für die nationale Sicherheit und sogar der möglichen Ausrottung der Menschheit reichen.“

Darin wird ein Verbot der Entwicklung von Superintelligenz gefordert, bis eine starke öffentliche Unterstützung und ein breiter wissenschaftlicher Konsens darüber besteht, dass diese sicher aufgebaut und unter Kontrolle gehalten werden kann.

Hinter der Erklärung standen neben Persönlichkeiten aus dem KI- und Technologiebereich auch Vertreter einer breiten Koalition, darunter Akademiker, Medienpersönlichkeiten, religiöse Führer und eine überparteiliche Gruppe ehemaliger US-Politiker und -Beamter.

Zu diesen pensionierten Beamten gehörten der ehemalige Vorsitzende der Vereinigten Stabschefs Mike Mullen und die ehemalige Nationale Sicherheitsberaterin Susan Rice.

Auch Steve Bannon und Glen Beck – einflussreiche Medienverbündete von US-Präsident Donald Trump – waren auf der Liste prominent vertreten.

Zu den weiteren prominenten Unterzeichnern gehörten die Mitglieder der britischen Königsfamilie, Prinz Harry und seine Frau Meghan Markle. Bis Mittwoch wurde die Liste immer länger.